Tiền đề của phim từng được Will Smith đề xuất với đạo diễn Barry Sonnenfeld trong quá trình quay Men in Black II (2002), khi Smith gợi ý rằng nhân vật của anh, đặc vụ J du hành thời gian ngược để cứu cộng sự của mình là đặc vụ K, trong khi đó vừa khám phá ra tiểu sử của K. Sonnenfeld nói rằng ý tưởng này "hóa ra trở thành một quá trình phát triển rất lâu, chủ yếu là bởi những vấn đề nút thắt của du hành thời gian.[8] Có thông tin rằng Smith và các nhà điều hành không tin vào việc mang Sonnenfeld trở lại ghế đạo diễn vì những mâu thuẫn khi làm Men in Black II.[9] Trong một vụ kiện chống lại những đồng nghiệp cũ của mình thông qua các khoản hoa hồng, Sonnenfeld cáo buộc Sony cân nhắc chọn những đạo diễn khác cho Đặc vụ áo đen 3.[9][10] Cuối cùng Sonnenfeld thuyết phục tất cả những người tham gia rằng ông có một tầm nhìn mạnh cho bộ phim.[9]

Phim lần đầu được công bố vào ngày 1 tháng 4 năm 2009 bởi chủ tịch hãng Sony Pictures Entertainment là Rory Bruer trong một buổi thuyết trình ShoWest của Sony.[11] Đến tháng 10 năm 2009, Etan Cohen được thuê để viết kịch bản.[12] Sonnenfeld đọc kịch bản và bắt đầu làm việc vào tháng 1 năm 2010.[13] Đến tháng 3 năm 2010, Will Smith vẫn do dự chưa quyết có đóng phần này hay tham gia một phim khác là The City That Sailed.[14] Vào tháng 5 năm 2010, Sonnenfeld đã xác nhận sự trở lại của Tommy Lee Jones và Smith.[15] Năm 2008 cả hai đã từng bày tỏ sự quan tâm đến việc đảm nhận các vai diễn của họ.[16][17] Các đội ngũ khác bao gồm Walter F. Parkes và Laurie MacDonald làm nhà sản xuất, Steven Spielberg làm nhà sản xuất điều hành, tất cả đều từng là nhà sản xuất của hai phần phim trước.[18]

Những bức ảnh sau hậu trường phim xuất hiện trực tuyến vào ngày 17 tháng 11 năm 2010, chiếu Smith, Jones, Emma Thompson và Nicole Scherzinger đang ở trên phim trường.[19] Quá trình quay dự kiến được tiếp tục từ tháng 3 đến tháng 6 năm 2011.[20] Quá trình quay hoàn tất vào tháng 4 năm 2011 tại Công viên Morris, Bronx.[21] Phân cảnh ở đảo Coney và Brooklyn đã có giấy phép đỗ xe và quay phim đăng lên vào ngày 24 tháng 4 và 2-4 tháng 5 năm 2011, giấy phép ghi ngày sản xuất có nhan đề là MIB3.[22] Quá trình quay cũng diễn ra tại khu phố SoHo, Manhattan.[23]

Đối với phim, Ford Taurus SHO được chọn làm chiếc xe chính thức của MIB, thay thế hai chiếc Ford LTD Crown Victoria và Mercedes-Benz E-Class từ hai phần trước.[24] Đối với phân cảnh năm 1969, 1964 Ford Galaxie được sử dụng làm xe chính thức của MIB. Sân vận động Shea từng xuất hiện trong Men in Black năm 1997 đã phải được tái tạo lại bằng CGI, sau khi nó bị phá hủy vào năm 2008.[25]